Подсюжет от процеса Мъск-Алтман: Кои милиардери заслужават ключовете на Божията машина?

Вижте всички тематики Връзката е копирана! Следвайте

Версия на тази история се появи в бюлетина Nightcap на CNN Business. За да го получите във входящата си поща, регистрирайте се гратис.

Илон Мъск най-сетне показа мнение, с което доста хора могат да се съгласят: Microsoft не би трябвало да управлява бъдещето на AI.

Проблемът е, че Мъск наподобява не схваща кой би трябвало.

За подтекст: Мъск съди OpenAI и нейните ръководители за това, което може да наподобява като нищожно разграничаване - прекосяването на OpenAI от най-вече като „ лаборатория “ с нестопанска цел към частна компания с облага, следена от фондация с нестопанска цел. Мъск се пробва да потвърди, че водачите на OpenAI са го излъгали и са предали благотворителната задача за създаване на AI по безвреден и транспарантен метод, с цел да печелят пари. Но водачите на OpenAI всъщност вършат мотив с кисело грозде; те настояват, че Мъск, съосновател, който напусна през 2018 година, единствено споделя, че в този момент е обезпокоен от комерсиалната смяна на OpenAI поради нейния хитов триумф на същия пазар, на който се конкурира по-новата компания на Мъск за изкуствен интелект.

Но всичко това е отвън по-голямата точка.

В свидетелски показания тази седмица Мъск неведнъж наблягаше убеждението си, че в ранните дни на OpenAI той трябваше да дава отговор, с цел да подсигурява, че технологията се употребява безвредно. Когато Microsoft се появи, с цел да влага 20 милиарда $ в стартъпа, Мъск настръхна от концепцията, тъй като „ Microsoft има свои лични мотивации “, които биха се отклонили от това, което съгласно него бяха по-филантропските цели на OpenAI.

Мъск зададе видимо риторичен въпрос, както моите сътрудници Саманта Делуя и Хадас Голд рапортуваха от процеса в Оукланд, като се обърнаха към журито в един миг, с цел да попитат: „ Не знам, в действителност ли желаете Microsoft да управлява цифровия суперинтелект? “

Мъск наподобява акцентира, че Microsoft, производител на някои от най-вездесъщите и презирани артикули за работното място в историята (Outlook, Teams), не е готиният, доброжелателен technoking/memelord, който би трябвало да получи ключовете за комплициран AI, който, в случай че заемем от свидетелството на Мъск, може да „ убие всички ни “.

Но алтернативата на Мъск на Microsoft, най-малко в ранните дни на OpenAI, беше самият той. Или по-скоро Мъск плюс четирима членове на борда, назначени от — както познахте — Мъск. Той свидетелства, че се е нуждаел от „ надзор “ над OpenAI първоначално, очаквайки неговия дял в последна сметка да бъде разводнен от нови вложители.

Отново всичко това може да е безсмислено.

Нека приемем Мъск и всички други ръководители на ИИ на чиста ръка и да им повярваме, когато споделят, че желаят да доближат „ неестествен общ разсъдък (AGI) “, прочут още като „ суперинтелект “, прочут още като някакво хипотетично равнище, на което интелектът на машината надминава този на хората. (Ние, за задачите на този бюлетин, просто ще замажем обстоятелството, че AGI е малко повече от научна фантастика, маскирана като действителна опция, с цел да изтръгне капитал от вложителите и да изплаши обществеността с препратки към филмите „ Терминатор “. И към този момент няма да се стопираме на обстоятелството, че няма двама евангелисти на AI, които да споделят обща формулировка на AGI или протокол за измервайки го, няма да крещим, че AGI не е нищо друго с изключение на чудовище, родено от тъпи мозъци, хванати в капан на тела, които не са съумели да допрян тревата.)

И дано ги приемем за чиста монета, когато споделят, че някой ден ще има силата да убие всички. Разбира се, за какво не.

Ако казусът е подобен, тогава сигурно би трябвало да имаме някакъв метод да го направляваме.

Но до момента в който Мъск и юристите на OpenAI спорят напред-назад за всичко това, те наподобява обмислят единствено стеснен набор от варианти. Нашият лист с избори, когато става дума за доброжелателни водачи с голям надзор върху бъдещето на човечеството, най-малко както е упоменато в този опит, наподобява е стеснен до Мъск, OpenAI (воден от основния изпълнителен шеф Сам Алтман), Microsoft и евентуално Гугъл или Meta или Anthropic.

Това е. Това е единственият модел и това са изборите.

Някои хора може да са добре с тази класификация, само че въз основа на мнения от случайна група жители, налични за избор на жури, не наподобява, че това е известен лист от господари.

„ Илон Мъск е лаком, расистки, хомофобски отпадък “, написа един от правосъдните заседатели във въпросника си voir dire. Друг го назова „ шут от международна класа “. Дори федералният арбитър Ивон Гонзалес Роджърс трябваше да признае: „ Реалността е, че хората не го харесват... Много хора не го харесват, само че това не значи, че все пак американците не могат да имат честност за правосъдния развой. “

Гонзалес Роджърс, да вземем за пример, няма време за пророчества за края на света на класата на милиардерите.

В четвъртък, когато юристът на Мъск повтори шума в промишлеността в съда - " всички можем да умрем! " — Гонзалес Роджърс го затвори, акцентирайки очевидните метафизичен несъгласия на Мъск.

" Иронично е, че вашият клиент, макар тези опасности, основава компания, която е в точното пространство. Подозирам, че има доста хора, които не желаят да слагат бъдещето на човечеството в ръцете на господин Мъск. "

Но това е отвън обсега на този случай, продължи тя.

" Това не е развой за това дали изкуственият разсъдък крие опасности или не. Това не е развой за това дали изкуственият разсъдък е навредил на човечеството или не. Това може да бъде развой в бъдеще. "